Tuy xuất hiện rất lâu đời nhưng kì thực nguồn gốc xuất xứ của nó lại cách Việt Nam khá xa, cụ thể là Châu Phi. Trò chơi xuất phát từ Bờ Biển Ngà, Nigeria sau trở nên phổ biến ở châu Phi.  Tại Châu Phi ô ăn quan được “khai sinh” với cái tên là Awale( nghĩa là túi hạt), tên ô ăn quan cũng xuất phát từ phiên âm của từ này.

Hiện chưa rõ nguồn gốc cũng như thời điểm bắt đầu nhưng chắc chắn rằng Ô ăn quan đã có ở Việt Nam từ rất lâu đời, có thể nó được lấy cảm hứng từ những cánh đồng lúa nước ở nơi đây. Những câu truyện lưu truyền về Mạc Hiển Tích (chưa rõ năm sinh, năm mất), đỗ Trạng nguyên năm 1086 nói rằng ông đã có một tác phẩm bàn về các phép tính trong trò chơi Ô ăn quan và đề cập đến số ẩn (số âm) của ô trống xuất hiện trong khi chơi[1]. Ô ăn quan đã từng phổ biến ở khắp ba miền Bắc, Trung, Nam của Việt Nam nhưng những năm gần đây chỉ còn được rất ít trẻ em chơi. Bảo tàng Dân tộc học Việt Nam có trưng bày, giới thiệu và hướng dẫn trò chơi này.

Theo các nhà nghiên cứu, ô ăn quan thuộc họ trò chơi mancala, tiếng Ả Rập là manqala hoặc minqala (khi phát âm, trọng âm rơi vào âm tiết đầu ở Syria và âm tiết thứ hai ở Ai Cập) có nguồn gốc từ động từ naqala có nghĩa là di chuyển. Bàn chơi mancala đã hiện diện ở Ai Cập từ thời kỳ Đế chế (khoảng 1580 - 1150 TCN). Tuy nhiên còn một khoảng trống giữa lần xuất hiện này với sự tồn tại của mancala ở Ceylon (Srilanka) những năm đầu Công nguyên và ở Ả Rập trước thời Muhammad. Tuy nhiên có những dấu hiệu để nhận định rằng một số dạng mancala lan truyền từ phía Nam Ả Rập hoặc vùng cực Nam của biển Đỏ qua eo biển Bab El Mandeb sang bờ đối diện thuộc châu Phi rồi từ đó xâm nhập lục địa này. Trong những giai đoạn sau, các tín đồ Hồi giáo đã phổ biến mancala sang những miền đất khác cùng với sự mở rộng của tôn giáo và văn hoá.[2]